Người chơi có thể điều khiển nhiều chủng loại đơn vị cả về quân sự và dân sự.[21] Hầu hết các binh chủng đều có thể được nâng cấp thông qua việc nghiên cứu (ví dụ như tăng tốc độ thu thập tài nguyên của dân làng, tăng cường mức sát thương cho bộ binh, sự kiên cố của áo giáp và tầm bắn xa cho cung thủ).[21]

Những đơn vị trên đất liền khá thông dụng trong game. Dân làng được xem như đơn vị cơ bản nhất trong Age of Empires. Chức năng chính của họ là thu thập tài nguyên như đốn cây lấy gỗ, đào vàng và đá, săn bắn và hái lượm, canh tác, hoặc Đánh cá để đổi lấy lương thực.[21] Đồng thời nông dân còn có thể dùng để xây dựng công trình hoặc sửa chữa nhà cửa và tàu thuyền bị hư hỏng, ngoài ra người chơi có thể sử dụng họ để đánh nhau với quân đối phương khi cần thiết, dù sức sát thương của đơn vị này khá thấp. Thầy tu là đơn vị không chiến đấu mà chỉ dùng để hồi máu cho quân của người chơi và quân đồng minh hoặc sử dụng tuyệt kỹ cải đạo biến quân đối phương trở thành quân của mình. Các đơn vị bộ binh như Lính chùy, Lính rìu, Kiếm sĩ, Chiến binh, Lính giáo dài chỉ có thể tấn công trong phạm vi gần. Còn các đơn vị cưỡi ngựa như Chiến xa, Kỵ binh, Voi chiến và Kị xạ đều dùng để tấn công ở tầm xa. Những đơn vị công thành chỉ gồm có hai loại duy nhất là Catapult (Máy lăng đá) và Ballista (Xe bắn tên). Máy lăng đá sử dụng một tảng đá to được phóng đi với khả năng sát thương diện rộng, tác động đến toàn bộ đơn vị ở trong một khu vực nhỏ, rất hữu hiệu khi công thành và gây thiệt hại nặng cho một nhóm lính vây quanh. Trong khi xe bắn tên gây thiệt hại ít hơn khi vây đánh nhà cửa và binh lính, bù lại tốc độ bắn nhanh, độ chính xác cao và chi phí rẻ hơn so với Catapult.

Trái lại những đơn vị trên biển chỉ đóng vai trò phụ, nhưng đôi lúc lại rất cần thiết để giành lấy chiến thắng trong game. Thuyền đánh cá và Tàu đánh cá tương tự như dân làng dùng để thu thập cá trên biển để làm lương thực. Thuyền buôn và Tàu buôn trao đổi tài nguyên gỗ, lương thực, đá từ các kho dự trữ và đổi lấy vàng tại Bến cảng của người chơi khác, với số vàng kiếm được tương đối so với khoảng cách giữa hai bến cảng. Tàu vận tải chuyên chở các đơn vị trên đất liền từ vùng đất này sang vùng đất khác. Tàu chiến tỏ ra rất hiệu quả trong việc tấn công tàu bè của đối phương và tấn công các đơn vị trên đất liền gần bờ biển (vì các đơn vị cận chiến không thể kháng cự lại). Tàu chiến bao gồm hai loại là Galley (thuyền to chạy bằng buồm và chèo, thông dụng ở Địa Trung Hải Cổ đại và thời Trung Cổ) bắn tên lửa và Trireme (tàu chiến cổ ba tầng chèo rất phổ biến ở Địa Trung Hải thời Cổ đại) có khả năng bắn ra một loạt tên hoặc những tảng đá (khá hữu hiệu khi chống lại các công trình nằm gần bờ biển).

Các loại binh chủng trong game đa số đều giống hệt nhau, bất kể nền văn minh nào (mặc dù các nền văn minh có thể cải tiến các biến thể của các đơn vị này). Ví dụ như một kiếm sĩ cấp cao của Triều Tiên giống y như kiếm sĩ cấp cao của Ba Tư và Phoenicia, các đơn vị khác như cung thủ, lính dùng rìu, lính dùng kiếm ngắn, kị binh v.v. cũng tương tự. Một vài bộ áo giáp và trang phục được thiết kế không đúng với lịch sử như lính dùng trường kiếm mặc đồ y hệt Vệ binh Hoàng gia La Mã. Một số đơn vị ở các nền văn minh khác trong game thì lại không đúng với thực tế của lịch sử, ví dụ như việc mua lính giáo dài thì các phe đều có thể mua được ngoại trừ Ba Tư, một số nền văn minh Trung Á có thể mua được các đạo quân legion và centurion, trong khi Yamato của Nhật Bản lại đóng được tàu chiến bắn tên lửa.